[4차 산업혁명 이야기] '알고리즘'이 권력 도구로 이용될 위험도 커져요

입력 2019-10-28 09:00  

2017년 3월, 경기도의 지역 프로젝트인 따복공동체 주민제안 공모사업에서 9000명의 주민이 참여하는 블록체인 기반 심사가 최초로 시작됐다. 이는 대의민주주의의 한계를 직접민주주의 방식으로 보완하려는 시도로서 높은 평가를 받았다. 블록체인을 이용한 투표를 통해 기존의 중앙집권적이었던 정책의 계획과 실행 단계에서 벗어나 주민들이 적극적으로 참여할 수 있는 기반을 형성했다. 이처럼 블록체인 기술을 통해 지방자치단체의 결정에 주민들이 직접 참여할 수 있는 직접민주주의가 가능해지면서 실질적인 지방분권으로 이어질 수 있다는 기대가 높아졌다. 정치영역도 4차 산업혁명의 영향과 무관하지 않음을 의미하는 대목이다.

알고리즘에 의한 정치권력 등장

정치 영역에 영향력을 행사하는 또 하나의 4차 산업혁명 기술은 인공지능(AI)이다. 알고리즘의 고도화로 국회의원을 대신해 인공지능이 시민들의 대표가 되어 협상을 하고 사회적 합의를 이끌어낼 수 있다. 알고리즘에 시민들의 의견을 실시간으로 반영하고, 정책 결과를 시뮬레이션해 최적의 의사결정을 내릴 수 있도록 구성한다면 인간 국회의원보다 합리적이고 공평할 수 있다는 기대를 엿볼 수 있다. 한편 이미 금융, 법률 등의 분야에서는 현실에 등장해 알고리즘에 의한 서비스가 제공되고 있다. 증권시장 및 금융거래에서의 ‘로보어드바이저’, 법률시장에서의 ‘로봇변호사’ 등이 대표적이다. 정치에서도 인공지능에 의한 새로운 서비스가 등장하고 있다. 영국 지방정부의 인공지능 보좌관 ‘아멜리아’가 대표적이다. ‘아멜리아’는 인허가 신청, 면허발급 등 주민들의 일상적이고 정형화된 요구를 자동으로 처리하는 가상 에이전트로, 기계학습을 통해 주민들의 요구사항을 분석해 최적의 대응방안을 제시하고 있다. 스페인에서는 ‘데모크라시 OS’라는 오픈소스 소프트웨어를 통해 각종 정책에 관한 주민들의 의견을 수렴해 정부에 전달하고 있다. 아르헨티나 부에노스아이레스에서는 이를 통해 400개가 넘는 법안을 제안했고, 이 중 16개의 법안이 공식적으로 상정됐다.

알고리즘 민주주의의 문제점

사물인터넷(IoT), 인공지능(AI), 로보틱스, 빅데이터 등 인간의 사물능력을 획기적으로 향상시키는 지능기술의 급속한 발전으로 인해 사회복잡화와 미래에 대한 불확실성을 해결할 수 있다. 문제는 지능기술에 의한 의존도가 높아질수록 알고리즘이 인간의 판단을 대신한다는 점이다. 이는 인간이 자신의 권한과 재량을 자동화 시스템에 넘겨주는 과정으로 확산될 수 있다. 인간은 판단의 이유를 설명해야 하고, 이에 대한 평가와 평판, 책임이 뒤따르게 되지만 알고리즘은 다르다. 알고리즘은 예측에 집중하므로 판단의 근거를 설명할 필요가 없고, 책임을 지지도 않는다. 알고리즘이 ‘블랙박스’처럼 여겨지는 이유다.

한편, 알고리즘 민주주의 즉 ‘알고크러시(algocracy)’하에서는 인공지능 기술이 지배층의 비전을 정교화하는 데 기여할 수 있다. 알고리즘을 설계하고 이를 바탕으로 데이터를 통제하는 자가 지배권력을 획득할 수 있기 때문이다. 데이터 기반 기계학습을 통해 완성되는 알고리즘의 특성상 차별적이고 편향적인 데이터의 활용은 알고리즘의 의사결정을 왜곡할 수 있다. 우선순위 결정, 분류, 필터링 등의 과정을 구축하는 것은 여전히 인간의 몫이다. 즉, 인공지능 기술이 중립적이지 않다는 의미다. 해당 기술이 누구의 손에 쥐이는가에 따라 인간이 개입하는 편향적인 검열의 과정이 될 수 있다. 인공지능 기술 역시도 본질적으로 차별적인 정치공간일 수밖에 없음을 엿볼 수 있는 대목이다.

디지털 자아가 이끌 미래 정치

지능기술의 급속한 발달로 인해 어디까지 인공지능에 권한을 위임할지에 관한 문제는 인공지능을 활용하는 모든 분야의 공통된 고민이다. 정치의 영역에서도 인공지능을 투표권을 가진 행위자로 인정할지, 인공지능 민주주의 이념과 이익 갈등의 제도화는 누가 어떻게 주도할 수 있을지 등에 관한 고민이 존재한다. 이런 논의는 기술발달에 따른 비용감소라는 긍정적 측면과 알고리즘 권력의 일상화에 따른 지배의 정교화라는 양극단 사이에서 이뤄질 것이다.

어떤 형태로 문제가 해결되든 미래 정치의 주체가 데이터와 알고리즘에 의한 의사결정에 익숙한 ‘디지털 자아(digital selves)’들이 될 것임은 분명하다. 디지털 자아들은 기계와의 협업이 뛰어난 개인들일 수도, 사이보그일 수도 있다. 다른 영역과 마찬가지로 정치의 영역에서도 기술에 위임할 수 있는 영역과 그렇지 않은 영역을 구분 짓는 일은 매우 중요하다. ‘가능성의 예술’로 평가되는 정치 영역에서 4차 산업혁명의 기술들을 어떤 시각과 태도로 다루는지에 따라 보다 투명하고 책임 있는 디지털 정치로의 발전을 이뤄낼 수 있을 것이다.


관련뉴스

    top
    • 마이핀
    • 와우캐시
    • 고객센터
    • 페이스 북
    • 유튜브
    • 카카오페이지

    마이핀

    와우캐시

    와우넷에서 실제 현금과
    동일하게 사용되는 사이버머니
    캐시충전
    서비스 상품
    월정액 서비스
    GOLD 한국경제 TV 실시간 방송
    GOLD PLUS 골드서비스 + VOD 주식강좌
    파트너 방송 파트너방송 + 녹화방송 + 회원전용게시판
    +SMS증권정보 + 골드플러스 서비스

    고객센터

    강연회·행사 더보기

    7일간 등록된 일정이 없습니다.

    이벤트

    7일간 등록된 일정이 없습니다.

    공지사항 더보기

    open
    핀(구독)!